Lors de la conférence AAAI 2025, conférence académique de premier plan en intelligence artificielle, une équipe conjointe d'Ant Group, de l'Université de Zhejiang, de l'Université de Liverpool et de l'Université normale de l'Est de la Chine a présenté ScaleOT, un framework innovant de réglage hors site (offsite-tuning). Ce framework permet d'améliorer l'efficacité de la protection de la vie privée de 50% sans perte de performance du modèle. Comparé aux techniques de distillation de connaissances, il réduit considérablement la consommation de puissance de calcul de 90%, offrant une solution efficace et légère pour le réglage hors site des modèles à plusieurs milliards de paramètres. L'article a été sélectionné pour une présentation orale à l'AAAI en raison de son caractère innovant.

L'autorité italienne de protection des données a récemment annoncé une amende de 15 millions d'euros à l'encontre d'OpenAI pour son robot conversationnel ChatGPT. Cette décision fait suite à une enquête ouverte en mars 2023, qui a révélé que OpenAI avait enfreint les réglementations sur la protection de la vie privée à plusieurs égards. Légende de l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. L’enquête souligne des manquements importants d’OpenAI dans le traitement des données personnelles. Premièrement, la société n’a pas signalé dans les temps les violations de données.

Récemment, un logiciel open source nommé Pensieve (la Pensine) a suscité un vif intérêt sur le GitHub Trending. Inspiré de l'objet magique d'Harry Potter permettant d'extraire et de revivre des souvenirs, ce logiciel enregistre automatiquement toutes les activités de l'utilisateur sur son ordinateur, lui permettant de se souvenir facilement d'informations passées. Il suffit de saisir des mots clés pour que Pensieve retrouve rapidement les enregistrements correspondants, facilitant grandement la vie quotidienne et le travail. Les développeurs de Pensieve indiquent que le logiciel possède...

Le moteur de recherche français respectueux de la vie privée Qwant et le moteur de recherche allemand à but non lucratif Ecosia ont annoncé un partenariat pour développer conjointement un index de recherche européen. Cette initiative vise à stimuler l'innovation dans leurs moteurs de recherche respectifs, notamment en matière d'intelligence artificielle générative (GenAI), et à réduire leur dépendance aux index de recherche des géants technologiques tels que Microsoft (Bing) et Google. Note sur l'image : Image générée par IA, Midjourney étant le fournisseur de services d'autorisation d'images. Actuellement, Ecosia et Qwant s'appuient sur l'index de recherche Bing.

À l'occasion du 20e anniversaire de Firefox, la PDG de Mozilla, Laura Chambers, a déclaré lors d'un entretien accordé à TechCrunch que l'impact significatif de l'intelligence artificielle (IA) sur la façon dont les gens utilisent les navigateurs web ne se ferait sentir que dans deux ou trois ans. Elle a réaffirmé la stratégie de Mozilla qui place le navigateur au cœur de ses produits et a indiqué que l'entreprise avait augmenté ses investissements dans le développement de Firefox. Chambers estime qu'avec la législation numérique de l'Union européenne...

Apple prévoit de lancer la mise à jour iOS 18.2 la première semaine de décembre, soit la semaine du 2 décembre, afin de permettre aux utilisateurs de profiter au plus vite des nouvelles fonctionnalités d'intelligence artificielle. Selon les informations de Mark Gurman, cette mise à jour intégrera la technologie ChatGPT à l'assistant vocal Siri d'Apple. Les utilisateurs pourront ainsi utiliser gratuitement les capacités de génération de texte et d'images de ChatGPT sans avoir besoin de créer de compte. Siri utilisera l'expertise de ChatGPT pour répondre aux questions, après avoir obtenu l'accord de l'utilisateur avant toute recherche.

La plateforme de réseau social X (anciennement Twitter) a mis à jour sa politique de confidentialité mercredi, suscitant un intérêt et des débats importants. La nouvelle politique indique que X autorisera par défaut les « partenaires » tiers à utiliser les données de la plateforme pour entraîner des modèles d'IA, sauf si les utilisateurs choisissent de se retirer activement. Cette décision met en lumière les efforts de X pour trouver de nouvelles sources de revenus, mais suscite également des inquiétudes quant à la protection de la vie privée des utilisateurs. Les principaux changements apportés à la nouvelle politique incluent : Utilisation des données par des tiers : une nouvelle clause autorise les partenaires tiers à utiliser les données des utilisateurs X, y compris pour l'entraînement de modèles d'IA. Les utilisateurs peuvent choisir

Microsoft a récemment annoncé le retour de Recall, son outil de capture d'écran IA controversé, pour novembre. Initialement lancé en mai 2024, cet outil avait suscité de nombreuses inquiétudes concernant la vie privée, poussant Microsoft à le suspendre temporairement. Après une période d'ajustements et de prise en compte des retours utilisateurs, Microsoft affirme avoir apporté plusieurs améliorations. La fonction principale de Recall est de capturer automatiquement des captures d'écran de l'activité de l'utilisateur sur son ordinateur, un peu comme une "mémoire photographique", permettant de retrouver facilement des éléments consultés précédemment.

Récemment, une vague de publications "Au revoir, Meta AI" a déferlé sur les réseaux sociaux. De nombreux utilisateurs, dont des personnalités comme Tom Brady et la musicienne Cat Power, ont publié des déclarations sur Instagram pour tenter d'empêcher Meta d'utiliser leurs données pour entraîner ses modèles d'IA. Ce phénomène reflète les préoccupations profondes des utilisateurs concernant la confidentialité des données et l'application des technologies d'IA, et pose de nouveaux défis aux géants de la technologie quant à la manière de concilier innovation technologique et droits des utilisateurs. Bien que ces déclarations n'aient aucune valeur juridique contraignante, M

À l'ère du développement fulgurant de l'intelligence artificielle, les technologies de synthèse et de conversion vocales évoluent rapidement, nous offrant des expériences audio incroyablement réalistes et naturelles. Cependant, ces progrès technologiques présentent également des risques potentiels pour la sécurité, notamment le 'clonage vocal', qui peut être exploité par des individus malintentionnés pour menacer la vie privée des individus et la stabilité sociale. Pour relever ce défi, le laboratoire de sécurité des systèmes intelligents de l'université de Zhejiang et l'université Tsinghua ont uni leurs forces pour lancer un cadre révolutionnaire de détection des faux audios : SafeEar. Ce cadre permet non seulement de détecter efficacement les faux audios, mais aussi de préserver...

Meta a annoncé qu'elle poursuivrait son projet d'utiliser des millions de publications publiques provenant de Facebook et d'Instagram au Royaume-Uni pour entraîner ses technologies d'intelligence artificielle. Bien que cette pratique soit largement interdite par la législation européenne sur la protection de la vie privée, Meta affirme avoir communiqué activement avec le Bureau du commissaire à l'information du Royaume-Uni (ICO). La société avait précédemment suspendu une proposition similaire en juin, suite à des mises en garde de l'ICO concernant le respect de la vie privée des utilisateurs par les entreprises technologiques lors du développement de l'IA générative.

Facebook a admis dans le cadre d'une enquête qu'elle collectait les données publiques de tous les adultes australiens sur sa plateforme. La société n'a pas offert aux Australiens la possibilité de se retirer comme elle l'a fait dans l'Union européenne, car la législation sur la vie privée ne l'y obligeait pas.

La plateforme de médias sociaux X (anciennement Twitter) fait l'objet de neuf plaintes pour violation de la vie privée émanant de différents pays, pour avoir utilisé sans consentement les données de ses utilisateurs de l'UE afin d'entraîner son robot conversationnel d'intelligence artificielle, Grok. Cette pratique a suscité la surprise du Comité irlandais de protection des données. Le Règlement général sur la protection des données (RGPD) de l'UE stipule que les entreprises doivent avoir une base juridique pour utiliser les données personnelles, faute de quoi elles risquent des amendes élevées. Les plaintes indiquent que X a traité les données de publication d'environ 60 millions d'utilisateurs de l'UE sans les en informer clairement, utilisant...

Alors que des géants de la technologie comme Google et Microsoft intègrent des fonctionnalités d'IA à leurs services de messagerie, Proton Mail, réputé pour sa confidentialité et sa sécurité, lance son propre assistant d'écriture IA : Proton Scribe. Cette nouvelle fonctionnalité vise à aider les utilisateurs à rédiger et optimiser leurs e-mails plus efficacement, tout en protégeant rigoureusement leur vie privée.

YouTube a récemment mis en place une nouvelle politique permettant aux utilisateurs de demander la suppression de contenu généré par intelligence artificielle imitant leur visage ou leur voix. Cette mesure fait suite à la croissance rapide du contenu généré par IA et à son impact sur la plateforme.

La start-up française Nijta se concentre sur la technologie d'anonymisation vocale basée sur l'IA. Son produit, VoiceHarbor, permet l'anonymisation de la voix tout en respectant les exigences de confidentialité des données. Nijta cible principalement le marché européen, profitant des lois strictes sur la confidentialité des données du RGPD. La société prévoit de s'étendre au marché B2C, en se concentrant sur des domaines tels que la protection des messages vocaux enregistrés.

Clearview AI est accusé d'avoir violé les lois californiennes sur la vie privée en collectant des images en ligne sans consentement et en les vendant à la police. Un rapport de Consumer Watchdog affirme que Clearview AI a collecté plus de 40 milliards d'images, principalement sur les médias sociaux, pour les vendre à des organismes publics et potentiellement à des entreprises étrangères. Les enquêteurs demandent au procureur général de Californie d'enquêter sur Clearview AI afin d'examiner son utilisation des données et de faire appliquer les lois de l'État. Clearview AI.

Le régulateur britannique de la protection des données a mis en garde les entreprises contre les risques liés à l’utilisation de l’intelligence artificielle (IA) sans tenir compte de la vie privée des individus, menaçant de sanctions financières et d’une érosion de la confiance du public. Le commissaire à l'information, John Edwards, a souligné l’obligation pour les entreprises d’assurer une protection complète des informations personnelles des clients lors de l’utilisation de l’IA, précisant que le non-respect des réglementations en matière de protection des données entraînerait des amendes et pourrait nuire à la confiance du public. Les décideurs politiques du monde entier sont de plus en plus préoccupés par les risques liés à l’IA, notamment depuis le lancement de ChatGPT par OpenAI, soutenu par Microsoft.

Des chercheurs suisses ont découvert que les grands modèles de langage comme GPT-4 peuvent déduire des informations privées sur les utilisateurs, telles que leur âge, leur sexe et leur revenu, à partir de publications sur Reddit. GPT-4 a atteint une précision de plus de 60 % dans la prédiction de ces informations sur l'ensemble de données PersonalReddit, notamment pour le sexe et le lieu de naissance. La précision de GPT-4 et des modèles similaires dans l'inférence d'attributs augmente significativement avec la taille du modèle. Les auteurs ont réussi à extraire des informations utilisateur avec une précision comparable à celle de GPT-4 grâce à une expérience de simulation de chatbot. Les experts soulignent la difficulté, voire l'impossibilité, d'identifier et de supprimer les données personnelles des grands modèles de langage.

Patronus AI est une start-up américaine spécialisée dans la sécurité et la gouvernance des modèles d'IA. La société vient de boucler un tour de table de série A de 3 millions de dollars, mené par Lightspeed China. Patronus AI fournit aux entreprises une plateforme d'évaluation, de surveillance et d'amélioration de la sécurité des modèles d'IA. La société utilise des réseaux antagonistes génératifs pour fournir aux entreprises des services d'évaluation de la sécurité des modèles d'IA. Patronus AI a déclaré qu'elle utiliserait ce financement pour accélérer le développement de ses produits et élargir son équipe de recherche et développement.